데이터베이스 연구회지(SIGDB)
Current Result Document :
| 한글제목(Korean Title) |
중첩 속성을 활용한 랜덤 언더 샘플링 기반의 공정성 개선 기법 |
| 영문제목(English Title) |
Random Under Sampling-Based Fairness Improvement Technique Using Overlapping Attribute |
| 저자(Author) |
강대원
권준호
전종훈
Daewon Kang
Joonho Kwon
Jonghoon Chun
|
| 원문수록처(Citation) |
VOL 38 NO. 03 PP. 0016 ~ 0034 (2022. 08) |
한글내용
(Korean Abstract) |
기계학습 모델이 사람과 관련된 분야에 활용되기 시작하면서 모델의 공정성 문제가 주목받고 있다. 공정성 문제란 성별이나 인종 같은 민감 속성(Sensitive Attribute)기반의 특정 그룹이 기계학습 모델로부터 타 그룹에 비해 편향된 결정을 받는 것을 말한다. 공정성 문제의 원인 중 하나로 데이터 셋의 불균형이 밝혀지면서 불균형 데이터 관련 공정성 연구가 활발히 진행되고 있다. 전통적으로 데이터 불균형으로 인한 편향을 제거하는 방법은 오버 샘플링(Over Sampling) 기법과 언더 샘플링(Under Sampling) 기법이 있다. 하지만 전통적인 데이터 불균형 완화 기법은 모델의 공정성 향상에 어려움이 있다. 따라서 본 논문은 중첩 속성을 활용한 언더 샘플링 기반의 공정성 개선 기법을 제안한다. 본 기법은 데이터 셋의 일반 속성 중 모델의 성능과 공정성 양쪽에 영향을 주는 중첩 속성을 구한다. 그리고 중첩 속성, 레이블, 민감 속성의 고윳값을 기준으로 서브 그룹을 만들고 랜덤 언더 샘플링을 통해 서브 그룹 간의 데이터 불균형을 완화한다. 본 기법의 성능은 다양한 데이터 셋, 임의 분할기법과 10번의 실험을 통해 평가했다. 그리고 공정성 지표로 균등 기회, 균등 승률, 균등 대우, 인구통계 패리티를 사용하여 공정성이 향상된 결과를 확인하였다. |
영문내용
(English Abstract) |
As machine learning models have begin to be used in human-related fields, the fairness of models is drawing attention. Fairness problems refer to certain groups based on sensitive attributes such as gender or race receiving biased decisions in machine learning models compared to other groups. As the imbalance of the dataset has been revealed as one of the causes of the fairness problem, research on fairness related to the imbalance data is being actively conducted. Traditionally, methods for eliminating bias due to data imbalances are over sampling and under sampling techniques. However, traditional data imbalance mitigation techniques have difficulty improving the fairness of the model. Therefore, this paper proposes Random Under Sampling-Based Fairness Improvement Technique Using Overlapping Attribute. This technique finds the overlapping attribute that affect both the performance and fairness of the model among the general attribute of the data set. We then create subgroups based on eigenvalues of overlapping attribute, labels, and sensitive attribute, and mitigate data imbalances between subgroups through random under sampling. The performance of this method was evaluated through different data sets, random partitioning methods, and 10 replicates. In addition, the results of improved fairness were confirmed by using Equal Opportunity, Equalized Odds, Treatment Equality, and Demographic Parity as fairness indicators. |
| 키워드(Keyword) |
공정성
기계학습
데이터 중심 인공지능
데이터 불균형 완화
편향 완화
Fairness
Machine learning
Data-centric AI
Data imbalance mitigation
Bias mitigation
|
| 파일첨부 |
PDF 다운로드
|
